Ollama 参数配置
1 创建模型的存储位置
Note
这里选择空间较大的目录即可,我这里是 \data 目录。
#root>
mkdir -p /data/ollama_models
chown ollama:ollama ollama_models/
2 配置 Ollama 配置
Warning
这里必须使用 edit 命令,用于产生 /etc/systemd/system/ollama.service.d/override.conf 文件以免每次升级 Ollama 时,相关被覆盖后需要重新配置。
编辑器打开后,在文件的最顶端(任何被注释掉的代码之上),添加 [Service] 块以及你需要修改的环境变量。
你可以参考以下模板进行修改:
sudo systemctl edit ollama.service
[Service]
Environment="OLLAMA_KEEP_ALIVE=-1"
Environment="OLLAMA_MODELS=/opt/ollama_models"
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=*"
Note
提示:配置完成后,保存并退出编辑器(如果是 nano,按 Ctrl+O 回车保存,Ctrl+X 退出)。
3 重载并重启服务
配置修改后,需要让系统重新读取服务文件,并重启 Ollama 服务让配置生效:
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo systemctl status ollama
4 防火墙放行
ufw allow 11434/tcp